以下の文章は、Ian StewartとDavid Tallによる数学基礎論の教科書からの引用と、その翻訳です。この文章は、無限小数の定義と、多くの学生が抱く「$0.999\cdots$ は $1$ よりわずかに小さい」という直感的な誤解について論じています。
出典: Ian Stewart and David Tall, The Foundations of Mathematics, Second Edition (2015), p.40
定義 2.14: 無限小数 (infinite decimal) $a_0.a_1a_2\cdots a_n\cdots$ の値は、小数点以下 $n$ 桁までの小数の数列 (sequence) $(d_n)$(ここで $d_n = a_0.a_1a_2\cdots a_n$)の極限 (limit) $l$ である。
この定義によれば、$0.333\cdots$ は $1/3$ であり、$0.999\cdots$ は $1$ である。
コメント。 研究によれば、ほとんどの人は最初、$0.999\cdots$ を「$1$ よりわずかに小さい」と考えていることが分かっている。その心理的な理由は、私たちが数列 $(a_n)$ を単なる数のリストとしてではなく、$n$ が変化するにつれて変化する「変動する量 (variable quantity)」として捉えているためだと思われる。例えば $a_n = 1/n$ の場合、私たちは第 $n$ 項が $n$ とともに変化し、動的にどんどん小さくなっていくと考える傾向がある。この場合、変動する項はゼロに限りなく近づいていくが、決してゼロと等しくなることはない。このような動的な直感 (dynamic intuition) が、$0.999\cdots$ を $1$ に等しいのではなく「$1$ よりわずかに小さい」と私たちに信じ込ませるのである。このことは、無限小数を極限値として定義するということを受け入れることへの抵抗につながる可能性がある。
私たちのうちの1人は、コンピュータを用いて収束 (convergence) に関する入門コース [5] を教え、学生たちに数列の数値的な収束について調べさせた。それは、数列が収束する場合、所定の桁数において数列がある固定された値に安定するという感覚を掴ませるためであった。彼らは、極限とは数列が安定するその正確な値であるという考え方を学び、それが数列 $(a_n)$ の極限 $l$ の正式な定義へとつながること、また具体的な例として $a_n = 1 - 1/10^n$ ならば極限 $l$ は $1$ になることを紹介された。予想通り、コース開始前には、23人中21人が $0.\dot{9}$ ($0.9$ の循環小数)は $1$ よりわずかに小さいと述べ、$1$ に等しいと答えたのはわずか2人であった。驚くべきことにコース終了後も、学生たちの意見は変わらなかった。クラスでの議論における学生たちの一般的な意見は、「循環小数は決して $1$ には到達しないことを『知っている』ので、それを $1$ に等しいと定義することは不可能だ」というものであった。
形式的な数学 (formal mathematics) を理解するためには、定義をよく知り、それが正確に何を意味しているのかを意識することが不可欠である。そうして初めて、首尾一貫した形式的理論 (formal theory) を構築することが可能になる。このケースにおいては、数列 $(a_n)$ の極限は、定義で定式化されている通り、数列が近づいていく固定された数 (fixed number) $l$ として定義されているのである。
上記の翻訳テキストにあるように、無限小数 $0.999\cdots$ を理解するためには、その基盤となる数列の極限の形式的な定義(いわゆる $\varepsilon-N$ 論法)を正確に理解し、適用する必要があります。日常的な言葉で「限りなく近づく」と言うとき、そこには動的なニュアンスが含まれますが、数学的な定義は完全に静的 (static) であり、論理式として定式化されています。
実数 (real number) の数列 $(a_n)$ が実数 $l$ に収束する (converge) とは、任意の正の実数 $\varepsilon > 0$ に対して、ある自然数 $N$ が存在し、$n \geq N$ を満たす全ての自然数 $n$ について、 $$|a_n - l| < \varepsilon$$ が成り立つことである。
このとき、$\lim_{n \to \infty} a_n = l$ と書き、$l$ を数列 $(a_n)$ の極限 (limit) と呼ぶ。
この定義においては、「変動する量」や「動的に近づく」という概念は存在しません。「任意の誤差 $\varepsilon$ をどれほど小さく設定しても、ある番号 $N$ 以降の項はすべて、目標値 $l$ との誤差が $\varepsilon$ 未満に収まる」という状態(固定された関係)を記述しています。
テキスト中で言及されている2つの例について、形式的な定義に基づいて丁寧に証明を書き直します。
証明:
任意の $\varepsilon > 0$ が与えられたとする。
アルキメデスの公理 (Archimedean property) により、任意の正の実数に対してそれより大きい自然数が存在するため、$N > \frac{1}{\varepsilon}$ を満たす自然数 $N$ を選ぶことができる。
このとき、任意の $n \geq N$ について、 $$n \geq N > \frac{1}{\varepsilon}$$ が成り立つ。逆数をとると、 $$\frac{1}{n} < \varepsilon$$ となる。
したがって、$n \geq N$ ならば、 $$\left| a_n - 0 \right| = \left| \frac{1}{n} \right| = \frac{1}{n} < \varepsilon$$ が成り立つ。
以上より、定義に従って $\lim_{n \to \infty} \frac{1}{n} = 0$ である。(証明終)
定義 2.14 に従い、$0.999\cdots$ は無限小数であり、その値は有限小数の数列 $(d_n)$ の極限として定義されます。
ここで、$d_1 = 0.9$、$d_2 = 0.99$、$d_n = 0.\underbrace{999\cdots9}_{n\text{個}}$ です。
この $d_n$ は等比数列の和として計算でき、
$$d_n = \frac{9}{10} + \frac{9}{10^2} + \cdots + \frac{9}{10^n} = 1 - \left(\frac{1}{10}\right)^n$$
となります。
我々が示すべきことは、数列 $d_n = 1 - 1/10^n$ の極限が $1$ であること、すなわち $\lim_{n \to \infty} d_n = 1$ です。
証明:
任意の $\varepsilon > 0$ が与えられたとする。
ここで、すべての自然数 $n$ について $10^n > n$ が成り立つため、$\frac{1}{10^n} < \frac{1}{n}$ であることに注意する。
前述のアルキメデスの公理と同様に、$N > \frac{1}{\varepsilon}$ を満たす自然数 $N$ を選ぶ。すると、任意の $n \geq N$ に対して、 $$\frac{1}{10^n} < \frac{1}{n} \leq \frac{1}{N} < \varepsilon$$ が成り立つ。
したがって、目標値 $1$ との差の絶対値は、 $$\left| d_n - 1 \right| = \left| \left(1 - \frac{1}{10^n}\right) - 1 \right| = \left| -\frac{1}{10^n} \right| = \frac{1}{10^n} < \varepsilon$$ となる。
よって、極限の定義により $\lim_{n \to \infty} d_n = 1$ であり、無限小数の定義(定義 2.14)から $0.999\cdots = 1$ が導かれる。(証明終)
上記の証明は論理的に完璧であり、形式的数学においては疑う余地がありません。しかし、翻訳テキストにあるように、学生はコンピュータで数値実験を行った後でも、なお $0.999\cdots = 1$ を受け入れることに抵抗を示しました。
この現象は、数学教育学においてDavid TallやShlomo Vinnerらが提唱した概念イメージ (concept image)と概念定義 (concept definition)という枠組みで説明されます。人間は数学的概念を理解する際、頭の中に視覚的イメージや過去の経験、直感的な感覚の総体(概念イメージ)を形成します。数列の場合、「$1, 0.9, 0.99, 0.999\cdots$」というプロセスを見ると、私たちの脳はそれを「$1$ に向かってどんどん近づいていくが、常に $1$ よりわずかに小さいまま進行する変動する量 (variable quantity)」として認識します。これがテキストで言う動的直感 (dynamic intuition)です。
一方で、極限の形式的な概念定義 (formal concept definition)は、状態が近づくプロセスそのものを表しているのではなく、ある条件を満たす「固定された数 (fixed number) $l$」のことです。学生たちは「数列が $1$ に到達しない(プロセスが終わらない)」という動的直感に囚われているため、「その無限のプロセスの結果として定義される固定値」が $1$ であるという静的な定義を受け入れることが難しくなります。つまり、彼らの概念イメージと形式的な概念定義が衝突(認知的葛藤)を起こしているのです。
テキストの結論が述べる通り、現代の形式的数学 (formal mathematics) を構築するには、人間の直感的なプロセスへの執着を手放し、極限を「定義に合致する固定された数」として受け入れることが絶対の前提となります。実数 (real number) の世界では、実数の完備性 (completeness) により、このようなコーシー数列 (Cauchy sequence) は必ずただ一つの実数の極限値を持ちます。そして $0.999\cdots$ の極限値は、実数の中に $1$ 以外に存在し得ないのです。